[toc]
Linux 日志切割神器 Logrotate 原理和配置详解
写在开头
对于 Linux 系统安全来说,日志文件是极其重要的工具。不知为何,我发现很多运维同学的服务器上都运行着一些诸如每天切分 Nginx日志之类的 CRON 脚本,大家似乎遗忘了 Logrotate,争相发明自己的轮子,这真是让人沮丧啊!就好比明明身边躺着现成的性感美女,大家却忙着自娱自乐,罪过!
logrotate 程序是一个日志文件管理工具。用于分割日志文件,删除旧的日志文件,并创建新的日志文件,起到“转储”作用。可以节省磁盘空间。下面就对 logrotate 日志轮转操作做一梳理记录。
本文以centos7.6为例
1.logrotate介绍
1.1 logrotate配置文件
Linux系统默认安装 logrotate
工具,它默认的配置文件在:
/etc/logrotate.conf
/etc/logrotate.d/
logrotate.conf
才是主要的配置文件,logrotate.d
是一个目录,该目录里的所有文件都会被主动的读入 /etc/logrotate.conf
中执行。
另外,如果 /etc/logrotate.d/
里面的文件中没有设定一些细节,则会以 /etc/logrotate.conf
这个文件的设定来作为默认值。
Logrotate是基于CRON来运行的,其脚本是 /etc/cron.daily/logrotate
,日志轮转是系统自动完成的。实际运行时,Logrotate会调用配置文件 /etc/logrotate.conf
。可以在 /etc/logrotate.d
目录里放置自定义好的配置文件,用来覆盖Logrotate的缺省值。
/etc/cron.daily/logrotate
文件内容如下
$ cat /etc/cron.daily/logrotate
#!/bin/sh
/usr/sbin/logrotate -s /var/lib/logrotate/logrotate.status /etc/logrotate.conf
EXITVALUE=$?
if [ $EXITVALUE != 0 ]; then
/usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
fi
exit 0
如果等不及cron自动执行日志轮转,想手动强制切割日志,需要加-f参数;不过正式执行前最好通过Debug选项来验证一下(-d参数),这对调试也很重要:
/usr/sbin/logrotate -f /etc/logrotate.d/nginx
/usr/sbin/logrotate -d -f /etc/logrotate.d/nginx
1.2 logrotate 命令格式
logrotate [OPTION...] <configfile>
-d, --debug :debug模式,测试配置文件是否有错误。
-f, --force :强制转储文件。
-m, --mail=command :压缩日志后,发送日志到指定邮箱。
-s, --state=statefile :使用指定的状态文件。
-v, --verbose :显示转储过程。
1.3 logrotate手动操作示例
根据日志切割设置进行操作,并显示详细信息:
/usr/sbin/logrotate -v /etc/logrotate.conf
/usr/sbin/logrotate -v /etc/logrotate.d/php
根据日志切割设置进行执行,并显示详细信息,但是不进行具体操作,debug模式
/usr/sbin/logrotate -d /etc/logrotate.conf
/usr/sbin/logrotate -d /etc/logrotate.d/nginx
可在 /var/lib/logrotate/logrotate.status
查看各log文件的具体执行情况
2.切割介绍
2.1 切割说明
比如以系统日志 /var/log/message
做切割来简单说明下:
- 第一次执行完rotate(轮转)之后,原本的messages会变成messages.1,而且会制造一个空的messages给系统来储存日志;
- 第二次执行之后,messages.1会变成messages.2,而messages会变成messages.1,又造成一个空的messages来储存日志!
如果仅设定保留三个日志(即轮转3次)的话,那么执行第三次时,则 messages.3这个档案就会被删除,并由后面的较新的保存日志所取代!也就是会保存最新的几个日志。
日志究竟轮换几次,这个是根据配置文件中的 rotate
参数来判定的。
看下 logrotate.conf
配置:
# see "man logrotate" for details
# rotate log files weekly(默认每一周执行一次rotate轮转工作)
weekly
# keep 4 weeks worth of backlogs(保留多少个日志文件(轮转几次).默认保留四个.就是指定日志文件删除之前轮转的次数,0 指没有备份)
rotate 4
# create new (empty) log files after rotating old ones(自动创建新的日志文件,新的日志文件具有和原来的文件相同的权限;因为日志被改名,因此要创建一个新的来继续存储之前的日志)
create
# use date as a suffix of the rotated file(这个参数很重要!就是切割后的日志文件以当前日期为格式结尾,如xxx.log-20131216这样,如果注释掉,切割出来是按数字递增,即前面说的 xxx.log-1这种格式)
dateext
# uncomment this if you want your log files compressed(是否通过gzip压缩转储以后的日志文件,如xxx.log-20131216.gz ;如果不需要压缩,注释掉就行)
#compress
# RPM packages drop log rotation information into this directory(将 /etc/logrotate.d/ 目录中的所有文件都加载进来)
include /etc/logrotate.d
# no packages own wtmp and btmp -- we'll rotate them here()
/var/log/wtmp { # 仅针对 /var/log/wtmp 所设定的参数
monthly # 每月一次切割,取代默认的一周
create 0664 root utmp # 文件大小超过 1M 后才会切割
minsize 1M # 文件大小超过 1M 后才会切割
rotate 1 # 只保留一个日志
}
# 这个 wtmp 可记录用户登录系统及系统重启的时间,因为有 minsize 的参数,因此不见得每个月一定会执行一次喔.要看文件大小。
/var/log/btmp {
missingok
monthly
create 0600 root utmp
rotate 1
}
# system-specific logs may be also be configured here.
由这个文件的设定可以知道 /etc/logrotate.d
其实就是由 /etc/logrotate.conf
所规划出来的目录,虽然可以将所有的配置都写入 /etc/logrotate.conf
,但是这样一来这个文件就实在是太复杂了,尤其是当使用很多的服务在系统上面时, 每个服务都要去修改 /etc/logrotate.conf
的设定也似乎不太合理了。
所以,如果独立出来一个目录,那么每个要切割日志的服务, 就可以独自成为一个文件,并且放置到 /etc/logrotate.d/
当中。
其他重要参数说明:
参数 | 含义 |
---|---|
compress | 通过gzip 压缩转储以后的日志 |
nocompress | 不做gzip压缩处理 |
copytruncate | 用于还在打开中的日志文件,把当前日志备份并截断;是先拷贝再清空的方式,拷贝和清空之间有一个时间差,可能会丢失部分日志数据。 |
nocopytruncate | 备份日志文件不过不截断 |
create mode owner group | 轮转时指定创建新文件的属性,如create 0777 nobody nobody |
nocreate | 不建立新的日志文件 |
delaycompress | 和compress 一起使用时,转储的日志文件到下一次转储时才压缩 |
nodelaycompress | 覆盖 delaycompress 选项,转储同时压缩。 |
missingok | 如果日志丢失,不报错继续滚动下一个日志 |
errors address | 专储时的错误信息发送到指定的 Email 地址 |
ifempty | 即使日志文件为空文件也做轮转,这个是logrotate的缺省选项。 |
notifempty | 当日志文件为空时,不进行轮转 |
mail address | 把转储的日志文件发送到指定的 E-mail 地址 |
nomail | 转储时不发送日志文件 |
olddir directory | 转储后的日志文件放入指定的目录,必须和当前日志文件在同一个文件系统 |
noolddir | 转储后的日志文件和当前日志文件放在同一个目录下 |
sharedscripts | 运行postrotate脚本,作用是在所有日志都轮转后统一执行一次脚本。如果没有配置这个,那么每个日志轮转后都会执行一次脚本 |
prerotate | 在logrotate转储之前需要执行的指令,例如修改文件的属性等动作;必须独立成行 |
postrotate | 在logrotate转储之后需要执行的指令,例如重新启动 (kill -HUP) 某个服务!必须独立成行 |
daily | 指定转储周期为每天 |
weekly | 指定转储周期为每周 |
monthly | 指定转储周期为每月 |
rotate count | 指定日志文件删除之前转储的次数,0 指没有备份,5 指保留5 个备份 |
dateext | 使用当期日期作为命名格式 |
dateformat .%s | 配合dateext使用,紧跟在下一行出现,定义文件切割后的文件名,必须配合dateext使用,只支持 %Y %m %d %s 这四个参数 |
size(或minsize) log-size | 当日志文件到达指定的大小时才转储,log-size能指定bytes(缺省)及KB (sizek)或MB(sizem). 当日志文件 >= log-size 的时候就转储。 以下为合法格式:(其他格式的单位大小写没有试过) size = 5 或 size 5 (>= 5 个字节就转储) size = 100k 或 size 100k size = 100M 或 size 100M |
2.2 切割示例
2.2.1 小示例:下面一个切割nginx日志的配置
$ cat /etc/logrotate.d/nginx
/usr/local/nginx/logs/*.log {
daily
rotate 7
missingok
notifempty
dateext
sharedscripts
postrotate
if [ -f /usr/local/nginx/logs/nginx.pid ]; then
kill -USR1 `cat /usr/local/nginx/logs/nginx.pid`
fi
endscript
}
2.2.2 分享一例曾经使用过的nginx日志切割处理脚本
1)logrotate日志分割配置
$ cat /etc/logrotate.d/nginx
/data/nginx_logs/*.access_log
{
nocompress
daily
copytruncate
create
ifempty
olddir /data/nginx_logs/days
rotate 0
}
2)日志分割脚本
$ cat /usr/local/sbin/logrotate-nginx.sh
#!/bin/bash
# 创建转储日志压缩存放目录
mkdir -p /data/nginx_logs/days
# 手工对nginx日志进行切割转换
/usr/sbin/logrotate -vf /etc/logrotate.d/nginx
# 当前时间
time=$(date -d "yesterday" +"%Y-%m-%d")
# 进入转储日志存放目录
cd /data/nginx_logs/days
# 对目录中的转储日志文件的文件名进行统一转换
for i in $(ls ./ | grep "^\(.*\)\.[[:digit:]]$")
do
mv ${i} ./$(echo ${i}|sed -n 's/^\(.*\)\.\([[:digit:]]\)$/\1/p')-$(echo $time)
done
# 对转储的日志文件进行压缩存放,并删除原有转储的日志文件,只保存压缩后的日志文件。以节约存储空间
for i in $(ls ./ | grep "^\(.*\)\-\([[:digit:]-]\+\)$")
do
tar jcvf ${i}.bz2 ./${i}
rm -rf ./${i}
done
# 只保留最近7天的压缩转储日志文件
find /data/nginx_logs/days/* -name "*.bz2" -mtime 7 -type f -exec rm -rf {} \;
3)crontab定时执行
# logrotate
0 0 * * * /bin/bash -x /usr/local/sbin/logrotate-nginx.sh > /dev/null 2>
手动执行脚本,测试下看看:
$ /bin/bash -x /usr/local/sbin/logrotate-nginx.sh
$ cd /data/nginx_logs/days
$ ls
huantest.access_log-2017-01-18.bz2
2.2.3 php脚本切割一例
$ cat /etc/logrotate.d/php
/Data/logs/php/*log {
daily
rotate 365
missingok
notifempty
compress
dateext
sharedscripts
postrotate
if [ -f /Data/app/php5.6.26/var/run/php-fpm.pid ]; then
kill -USR1 `cat /Data/app/php5.6.26/var/run/php-fpm.pid`
fi
endscript
postrotate
/bin/chmod 644 /Data/logs/php/*gz
endscript
}
$ ll /Data/app/php5.6.26/var/run/php-fpm.pid
-rw-r--r-- 1 root root 4 Dec 28 17:03 /Data/app/php5.6.26/var/run/php-fpm.pid
$ cd /Data/logs/php
$ ll
total 25676
-rw-r--r-- 1 root root 0 Jun 1 2016 error.log
-rw-r--r-- 1 nobody nobody 182 Aug 30 2015 error.log-20150830.gz
-rw-r--r-- 1 nobody nobody 371 Sep 1 2015 error.log-20150901.gz
-rw-r--r-- 1 nobody nobody 315 Sep 7 2015 error.log-20150907.gz
.........
.........
2.2.4 nginx日志切割一例
$ cat /etc/logrotate.d/nginx
/Data/logs/nginx/*log {
daily
rotate 365
missingok
notifempty
compress
dateext
sharedscripts
postrotate
/etc/init.d/nginx reload
endscript
}
$ ll /Data/logs/nginx/www.huanqiu.com/
..........
-rw-r--r-- 1 root root 1652 Jan 1 00:00 error.log-20170101.gz
-rw-r--r-- 1 root root 1289 Jan 2 00:00 error.log-20170102.gz
-rw-r--r-- 1 root root 1633 Jan 3 00:00 error.log-20170103.gz
-rw-r--r-- 1 root root 3239 Jan 4 00:00 error.log-20170104.gz